還在苦苦等待模型訓練完成？還在忍受 CPU 龜速運算？

在深度學習與高速數學計算中，GPU (圖形處理單元) 提供了比 CPU 更強大的計算能力，尤其是當需要處理大量並行計算時。然而，要充分利用 GPU 的強大性能，開發者通常需要進行一些配置工作。本篇文章將帶你了解如何正確設定 GPU、確認是否使用了 GPU，以及如何安裝 CUDA 和 cuDNN。

一、為什麼要使用 GPU？

GPU 的架構特別適合大規模並行處理，這使得它在深度學習、科學計算、圖像處理等領域非常有用。相比於 CPU，GPU 能夠更快速地執行數百甚至數千個線程，極大地提高計算效率。因此，使用 GPU 可以顯著加快訓練深度學習模型的速度，從而縮短開發周期。

二、使用 GPU 需要設定嗎？

要使用 GPU 進行計算，確實需要進行一些基本設定，尤其是在深度學習框架如 TensorFlow 或 PyTorch 中。這些框架通常需要安裝特定版本的 CUDA 和 cuDNN，才能正確調用 GPU 的計算資源。

三、如何確認是否正在使用 GPU？

確認你的程式是否正在使用 GPU，可以使用不同的方法，取決於你使用的深度學習框架。

1. 使用 TensorFlow

在 TensorFlow 中，可以通過以下程式碼檢查是否正在使用 GPU：

import tensorflow as tf

# 列出所有可用的物理設備
physical_devices = tf.config.list_physical_devices('GPU')
print("GPUs Available: ", len(physical_devices))

# 確認是否使用GPU進行計算
if physical_devices:
    print("Using GPU")
else:
    print("Using CPU")

2. 使用 PyTorch

在 PyTorch 中，可以通過以下程式碼檢查：

import torch

# 檢查是否有可用的 GPU
if torch.cuda.is_available():
    print("Using GPU")
else:
    print("Using CPU")
    
# 當前使用的設備 ID
print("ID = " + torch.cuda.current_device())

#  設備的數量
print("Count = " + torch.cuda.device_count())

# 當前使用的設備名稱
print("Name = " + torch.cuda.get_device_name(torch.cuda.current_device()))

這些方法會告訴你程式當前是否在使用 GPU。

四、如何安裝 CUDA 和 cuDNN？

CUDA 和 cuDNN 是 NVIDIA 為 GPU 計算提供的軟體框架，確保你的程式可以與 GPU 正確通訊。

安裝起來有點麻煩，要注意的小細節有很多：

1. 不同的 TensorFlow 或 PyTorch 版本會需要安裝能匹配的 CUDA 和 cuDNN 版本。
   • TensorFlow 版本對應可參考：TensorFlow 官網
   • PyTorch 版本對應可參考：PyTorch 官網
   • 實際安裝步驟可以參考這篇文章：Window10安裝tensorflow、cuda、cudnn教學
2. 如果我同時有在用 TensorFlow 跟 PyTorch，需要不同的 CUDA 和 cuDNN 版本怎麼辦？
   • 使用多版本共存與切換
   • 文章可參考：windows中cuda版本切換
   • 影片可參考：Cuda和Cudnn的安裝以及Cuda11和Cuda12的多版本共存和版本即時切換

五、結語

GPU 在深度學習起著至關重要的作用，但要充分發揮其潛力，正確配置 CUDA 和 cuDNN 是不可或缺的一步。通過本文的指引，你應該能夠順利地安裝並配置這些工具，並確認你的程式是否正確使用 GPU 進行計算。